Thon có trận đấu chuyên nghiệp đầu tiên ở tuổi 17 cho đội bóng địa phương FC Schalke 04.[2] Ông có ảnh hưởng ngay tức thì khi ghi 14 bàn trong 38 trận đấu để giúp đội bóng vùng Gelsenkirchen quay trở lại Bundesliga với vị trí thứ nhì của giải hạng hai năm 1984. Trong mùa bóng đó, ông đã lập một hat-trick trước Bayern München tại Cúp bóng đá Đức trong trận hòa 6–6 kịch tính trên sân nhà ở bán kết. Câu lạc bộ vùng Bavaria sau đó chiến thắng lượt về và vô địch giải.[1]

Ngày 24 tháng 8 năm 1984, Thon đá trận đầu tiên tại giải đấu cao nhất ở Đức, thua Borussia Mönchengladbach 1–3. Trong mùa bóng này và ba mùa tiếp theo, ông chỉ có một mùa ghi dưới 10 bàn và hiếm khi vắng mặt trong đội hình ra sân.

Vào mùa hè năm 1988, Thon ký hợp đồng với đội bóng Đức lớn nhất Bayern München để thay thế Lothar Matthäus chuyển sang Internazionale Milano. Thon ghi 8 bàn trong 32 trận trong mùa bóng đầu tiên dưới màu áo câu lạc bộ mới, giúp đội bóng thống trị giải quốc gia. Mùa tiếp theo ông ghi được cùng số bàn thắng.

Thon trở lại Schalke năm 1994 ở tuổi 28, sau khi giành thêm một danh hiệu vô địch quốc gia, mặc dù phần lớn mùa giải ông chấn thương và Matthäus đã quay trở về Bayern. Trong lần trở lại Schalke này, Thon chủ yếu chơi ở vị trí hậu vệ quét. Ở mùa giải thứ ba, Thon chơi tổng cộng 46 trận, giúp câu lạc bộ giành Cúp UEFA mùa bóng 1996–97. Trong trận chung kết, ông ghi một bàn ở loạt sút luân lưu để giúp đội nhà chiến thắng Inter (1–1 sau hai lượt trận). Tuy nhiên năm đó Schalke chỉ về hạng 12 ở giải quốc gia.

Trong những năm cuối sự nghiệp, Thon chỉ đấu có 9 trận trong hai mùa cuối cùng do gặp nhiều chấn thương. Vào tháng 6 năm 2002, ông giải nghệ (ở độ tuổi 36) với tổng cộng 443 trận và 82 bàn ở Bundesliga. Tiếp đó, ông làm giám đốc marketing cho câu lạc bộ cho đến tháng 8 năm 2009.[3]

Ngày 1 tháng 2 năm 2010, Thon được bổ nhiệm làm huấn luyện viên trưởng của câu lạc bộ VfB Hüls,[4] bắt đầu công việc từ ngày 3 tháng 4.[5] Ông chỉ đảm nhiệm vị trí này trong hơn một năm cho đến 15 tháng 9 năm 2011. Ông dẫn dắt tổng cộng 49 trận (với 16 trận thắng). Từ tháng 7 năm 2012, ông trở thành người đại diện cho Schalke 04.[6]